Helle Thorning-Schmidt от надзорния съвет на Meta: „Не всяко съдържание, генерирано от AI, е вредно“

Helle-Thorning Schmidt беше определена за първата жена министър-председател на Дания през 2011 година, като заемаше най-високия пост в нацията в продължение на четири години, преди по-късно служи като основен изпълнителен шеф на благотворителната организация Save the Children International. 

Може би най-видната й обществена роля през днешния ден е като съпредседател на Надзорния съвет на Meta, орган, основан от основния изпълнителен шеф на колоса на обществените медии Марк Зукърбърг, който стартира работа през 2020 година Той се състои от световна група от публицисти, учени и политици, който се произнася по най-известните каузи за модериране на наличие в платформи като Фейсбук и Instagram.

Финансиран от концерн от $280 милиона, бордът е избран като самостоятелен, съвсем квазисъдебен тяло: „ висш съд “ за онлайн тирада.

Той се занимава с някои от най-трудните проблеми в платформите на Meta, като поддържането – с предизвестия – отстраняването на Доналд Тръмп от Фейсбук. Миналата година бордът изиска политиките на Meta за обзор на „ манипулираните медии “, откакто модераторите му отхвърлиха да смъкват редактиран видеоклип във Фейсбук, който непозволено разказва президента на Съединени американски щати Джо Байдън като педофил.

Meta даде на борда пълномощия върху стеснен набор от проблеми, като да вземем за пример дали наличието би трябвало да бъде възобновено или отстранено. В допълнение към издаването на решения в случаи обаче, той може също по този начин да прави рекомендации за промени в политиката.

Тези ограничавания доведоха до обвинявания, че Meta просто разрешава лимитирано саморегулиране, което предотвратява по-сериозна интервенция. Торнинг-Шмид постоянно подлага на критика практиките на Meta, като в същото време твърди, че компанията е направила основни промени в отговор на работата на Надзорния съвет.

Преди появяването си на TNW конференцията на Financial Times в Амстердам през днешния ден, тя приказва с Редакторът на софтуерните вести на FT Мурад Ахмед. Те разискаха възхода на генерираните от AI дълбоки подправени известия, от време на време фрапантните последствия от решенията на борда и по какъв начин решенията на Мета въздействат на персоналната й известност.

Мурад Ахмед: Това е годината на Избори. Повече от половината свят е отишъл или ще гласоподава. Вие помогнахте да се вдигне паника, че това може да е и годината, в която дезинформацията, изключително генерираните от AI дълбоки имитации, може да унищожи демокрацията. Ние сме в средата на годината. Виждали ли сте по какъв начин това знамение се сбъдва?

Helle Thorning-Schmidt: Ако погледнете разнообразни страни, мисля, че ще видите доста смесени неща. Това, което виждаме в Индия, да вземем за пример, е, че AI [deepfakes са] доста необятно публикувани. Също по този начин в Пакистан е доста публикувано. [Технологията] се употребява, с цел да накара хората да кажат нещо, макар че са мъртви. Това кара хората да приказват, когато са в пандиза. Също по този начин кара известни хора да поддържат празненства, които може да не поддържат... [Но] Ако погледнем европейските избори, което явно е нещо, което следих доста надълбоко, не наподобява, че AI изкривява изборите. 

Мисля, че работи доста добре. Мета следва всички наши решения

Това, което предложихме на Мета е... те би трябвало да прегледат вредата, а не просто да смъкват нещо, тъй като е основано от AI. Това, което също им предложихме, е да модернизират стандартите на цялата си общественост за модерирано наличие и да маркират наличие, генерирано от AI, тъй че хората да могат да видят с какво си имат работа. Това е, което предлагаме на Мета. Ние сме доста щастливи, изключително със случая Байдън, това значи, че Meta ще промени политиката си.

MA: Вие сте самостоятелни от Meta, доколкото ти може да си. Вие сте в позиция, в която дейно лобирате за Meta, вместо да можете да ги принудите да се трансформират в този случай. Това работи ли до момента?

HTS: Мисля, че работи доста добре. Мета следва всички наши решения. Доколкото знам, това е всичко с изключение на едно решение, което са следвали. Това е, което дадоха обещание през цялото време и мисля, че е доста ясно, че се придържат към това заричане.

Особено ми харесва, че са приели [че] би трябвало да споделят на хората, в случай че има дума в тяхното наличие значи [то] би трябвало да бъде свалено. Така че те в действителност осведомят хората, „ в случай че измененията тази дума, вашата част от наличието няма да бъде отстранена “. Това дава огромна бистрота. Помага на доста хора и това към този момент е помогнало на милиони по целия свят да трансформират наличието си, тъй че да е възможно в платформите.

Meta не е задължена да приема всички наши рекомендации, само че мисля, че приема доста съществено към тях и ние сме доста щастливи до каква степен стигнахме с този инструмент за предоставяне на рекомендации на Мета.

MA: Вие споменахте, че са приели всичките ви решения с изключение на едно, какъв беше този?

HTS: Беше този в Камбоджа.

MA: Разкажете ни за това.

HTS: Е, в Камбоджа имаше [тогавашният министър-председател Хун Сен], който пускаше наличие, което беше извънредно нездравословно и заплашително, изключително за опозицията. Разгледахме доста деликатно този случай и препоръчахме на този съответен консуматор... би трябвало да има глоба за премахване от платформата за шест месеца.

Мета се върна, разбра какво споделяме, само че [каза, че забраната] ще задуши свободата на словото в Камбоджа. Това беше техният мотив. Не бяхме съгласни с Мета по този въпрос. Все още не сме съгласни. Имаме известно схващане за техния мотив, тъй като е правилно, че платформите на Meta може би щяха да бъдат отстранени в Камбоджа, без да оказват помощ на свободата на словото в тази страна.

Това беше очевидно противоречие сред Meta и Надзорния съвет.

[Забележка: След публикуването на изявлението, Thorning-Schmidt обясни, че това „ решение “ в действителност е рекомендация на борда, известна като консултативно мнение за политиката. Мета би трябвало да се придържа към първото, само че може да избере дали да следва второто или не.]

MA: Това имаше някои много действителни последствия за теб по това време, нали?

HTS: Да, всички членове на борда към този момент се смятат за личност нон грата в Камбоджа. Това е много огромна стъпка за едно държавно управление, изключително за мен, който също бях някогашен министър-председател... само че това също демонстрира, че те одобряват нашите решения съществено.

MA: Това не е ли една от тези обстановки, които водят до рецензии към Мета и Надзорния съвет? Надзорният съвет взе своето решение, само че не съумя да го приложи. В случая с Мета може да се каже, че това е решение за независимост на словото, само че може да се каже, че са възприели комерсиалния императив. Те избират да бъдат открити в Камбоджа, в сравнение с да изслушат решението ви.

HTS: Можете да кажете каквото желаете. Но също по този начин мисля, че на всички места има пазар за Meta, всеки знае това...

И аз не пазя Мета по този въпрос, само че имам известно схващане за една позиция, която всъщност е, че в случай че свалите тези платформи в Камбоджа, да вземем за пример, опозицията ще имат доста по-тесни благоприятни условия да отстояват своите позиции и гледни точки. Така че това би задушило свободата на словото в Камбоджа, в случай че тези платформи не съществуваха в Камбоджа, няма подозрение в това.

Това постоянно е акт на балансиране. Мисля, че целият случай акцентира сложността на модерирането на наличието. Така че в действителност нямам нищо срещу. Имаме тази транспарантна полемика с Мета. Това също е тематиката на борда. Ние вземаме всички тези полемики, тези доста сложни решения, когато става въпрос за модериране на наличие, и ги излагаме навън. Сега можем да обсъдим това, тъй че хората да имат мнение за това.

Имаме тази транспарантна полемика с Мета. Всеки може да взе участие. Те могат да видят нашите разсъждения

Ние даваме обществена благосъстоятелност на тези полемики. Всеки може да взе участие. Те могат да видят нашите разсъждения. Те могат да го видят в къса или дълга форма на нашия уеб страница. И това, което създадохме, е система, в която Meta не е последният, който взема решения за най-трудните решения за модериране на наличие, тъй като ние сме.

Тези решения постоянно, постоянно се свеждат до пресечната точка сред свободата на словото и другите човешки права. За това постоянно става дума. Това е, което обсъждаме безпределно. Надявам се, че с нашата работа всеки може да види, че тези полемики са доста сложни и изискват доста внимание, и всеки може да взе участие, тъй като ние постоянно разрешаваме обществени мнения.

MA: Искам да се върна към някои от тези решения. Умишлено ви се дават крайните случаи, дават ви се сложните случаи, с които да се справите.

HTS: Ние одобряваме сложните случаи, тъй като вземаме повече, в сравнение с ни е обещано. Сами поемаме случаите, сами ги избираме. Meta също може да препраща случаи към нас, само че множеството от нашите случаи единствено ние решаваме кои случаи желаеме да създадем.

MA: Разбира се. Преди да попитам повече за Надзорния съвет и къде бихте желали да го вземете, просто желаех да се върна към диалога за AI и deepfakes. Какво виждате в този свят, изскачащо и какво ви визира?

HTS: Абсолютно всичко, което можете да си визиите. Deepfakes — като политик споделя нещо, което не е споделил, или тя не е споделила, прави нещо, което в действителност не е направил. Мисля, че това беше брилянтен случай със случая Байдън. Това даже не беше генерирано от AI [видео], беше снадено. Можете да [манипулирате] наличие, тъй че да наподобява, че човек прави нещо, което не е правил. Хората могат да бъдат заблудени от това. Така че това е една огромна област.

Друга област, от която доста се интересуваме сега, е AI порнографията, също с обществени персони, само че ще се разпростре и върху непублични персони, което е сериозен проблем. Това е голям проблем, тъй като може да аргументи доста вреди в действителния живот доста, доста бързо. Meta би трябвало да бъде доста, доста добър в премахването на този тип наличие и намирането на сигнали за липса на единодушие, по-добре, в сравнение с го вършат сега...

Мисля, че това може да повлияе на метода, по който Meta третира генерираното от AI наличие, което визира изключително дамите, само че в действителност всички, транс хората, също и мъжете, а също по този начин визира дамите политици, с тези голи изображения, генерирани от AI и даже порно.

Мисля, че ще променим метода, по който Meta работи в това пространство. Мисля, че след няколко години ще приключим с Meta, маркирайки AI наличие и също по този начин ще бъдем по-добри в намирането на сигнали за единодушие, които би трябвало да отстранен от платформите, и ще го вършим доста по-бързо. Това е доста мъчно, несъмнено, само че те имат потребност от доста добра система. Те също се нуждаят от човешки модератори с културни знания, които могат да им оказват помощ да създадат това. [Забележка: Meta стартира да етикетира наличието като „ Произведено с AI “ през май.]

Това, което също преглеждаме, е дали те са еднообразно положителни в това на главните си пазари или на огромните пазари, като Съединени американски щати, както и на други пазари. Така че това е доста огромен проблем за нас и мисля, че ще можем да променим Мета в това пространство през идващите години.

MA: Две неща, от които да вземем какво сподели. Първото нещо е, за какво Мета не е добър в улавянето на сигнали за противоречие? Има ли някои проблеми, някои структурни проблеми, които значат, че са слаби в това и би трябвало да се подобрят?

HTS: Мисля, че за Meta това евентуално е акт на балансиране на не свръхналагане. Особено в пространството на голотата, те не желаят [прекалено] да постановат, тъй че мисля, че това е балансиращият акт, който Мета се пробва да направи. Ще видите повече за това, когато приключим с нашия случай.

MA: Имате ли настоящ случай за това?

HTS: Имаме два настоящи случая [за] публични персони и голота/порнография.

MA: Тогава второто нещо, което счетох за забавно, е, че ти Мисля, че Meta ще стигне до стадий, в който просто ще маркира цялото AI наличие на своите платформи. Защо просто не наложат тази политика незабавно? Защо ви трябват две години, с цел да стигнете до този стадий?

Предложихме да че би трябвало да отбелязват наличие с изкуствен интелект, а не да го смъкват автоматизирано

HTS: Не споделям, че би трябвало да отнеме две години, просто споделям, че това е, което преглеждаме. Не мисля, че нещо би трябвало да отнеме две години... Ще имаме повече познания за това по какъв начин изкуственият разсъдък въздейства върху хората, дамите, изборите и всички тези неща, за които приказваме тук. След случая с Байдън Мета сподели, че ще трансформират метода, по който се оправят със наличието, генерирано от AI. Предложихме им да отбелязват AI наличието, а не да го смъкват автоматизирано.

Защото, както споделям, не всички генерирани от AI престъпници